import torch

#按特定轴求和
a = torch.ones((2,5,4))
# print(a)
# print(a.shape)
#
# print(a.sum().shape)
# print(a.sum(axis=1))
# print(a.sum(axis=1).shape)
# print(a.sum(axis=0).shape)
# print(a.sum(axis=2).shape)
# print(a.sum(axis=[0,2]).shape)
#
#
# print(a.sum(axis=1, keepdim=True).shape)
# print(a.sum(axis=[0, 2], keepdim=True).shape)

#矩阵计算，需要知道怎么求矩阵导数

#自动求导指的是，一个函数在指定值上作导求导数。
#符号求导（mathmatics），数值求导（并不需要知道导数长什么样子，通过数值去拟合这个导数）
#正向累积和反向累积，计算复杂度是大差不差的
#正向累积会将每个中间结果存下来，这样的空间复杂度就是O(n)，
#而反向累积则不会，空间复杂度为O(1)

x = torch.arange(4.0)
x.requires_grad_(True)#等价于x = torch.arange(4.0, requires_grad=True)
print(x.grad)
y = 2 * torch.dot(x, x)
print(x)
print(y)

#通过调用反向传播函数来自动计算y关于x每个分量的梯度
y.backward()
print(f'求导：{x.grad}')
print(x.grad == 4 * x)

#在默认情况下，pyTorch会累积梯度，我们需要清除之前的值
x.grad.zero_()
y= x.sum()
y.backward()
print(f'另一个函数：{x.grad}')

#对于非标量调用‘backward’需要传入一个'gradient'参数，该参数指定微分方程
x.grad.zero_()
y = x * x
#等价于y.backward(torch.ones(len(x)))
y.sum().backward()
print(f'矩阵求导：{x.grad}')

#将某些计算移动到记录的计算图之外
x.grad.zero_()
y = x * x
u = y.detach()
z = u * x
z.sum().backward()
print(f'检测结果：{x.grad == u}')

x.grad.zero_()
y.sum().backward()
print(f'现在：{x.grad == 2 * x}')

#即使构建函数的计算图需要通过python控制流，仍然可以计算得到变量的梯度
def f(a):
    b = a * 2
    while b.norm() < 1000:
        b = b * 2
    if b.sum() > 0:
        c = b
    else:
        c = 100 * b
    return c
a = torch.randn(size=(), requires_grad=True)
d = f(a)
d.backward()
print(f'现在的导数: {a.grad == d / a}')